IA bajo control: ¿Tolerancia cero o excepciones necesarias?

Maurizio Pancorvo

Tras un largo debate, la Unión Europea logró consensuar una ley que regula la Inteligencia Artificial (IA), buscando garantizar que estos sistemas sean seguros, respeten los derechos fundamentales y, a la vez, no se generen trabas a la inversión, innovación y desarrollo en esta materia.

Se trata, sin duda, de un significativo hito en el esfuerzo por regular estas tecnologías que ya han penetrado con fuerza en los más diversos ámbitos de la vida moderna. Sin embargo, el camino hacia una regulación efectiva de la IA sigue plagado de complejidades y desafíos éticos, tal como demuestra el debate inmediato surgido a raíz de esta ley, al permitir ciertas excepciones de usos de alto riesgo por parte de las fuerzas policiales.

“¿Es aceptable permitir brechas o usos al límite de la ética en aras de la seguridad o la eficiencia? El debate europeo debe motivarnos también a acelerar el paso en la discusión local, donde ya hay proyectos de ley sobre la mesa, pero sin avances significativos”.

Más allá de especular sobre futuros usos de la tecnología, el caso del proyecto iBorderCtrl ofrece una aproximación real y práctica de este dilema. Esta iniciativa, financiada por la Unión Europea, busca mejorar la eficiencia de los controles fronterizos mediante un “detector de mentiras” basado en inteligencia artificial, lo que ha despertado amplias críticas sobre su real precisión, transparencia y eventuales vulneraciones de los derechos fundamentales de las personas.

Si se acepta el uso de tecnologías potencialmente invasivas y no probadas, como es el caso de iBorderCtrl, ¿qué garantías existen para evitar abusos y asegurar que tales sistemas sean justos, precisos y no discriminatorios? ¿Es aceptable permitir brechas o usos al límite de la ética en aras de la seguridad o la eficiencia?

Estas preguntas son especialmente importantes cuando hablamos de algoritmos que tomarán decisiones que podrían afectar profundamente a las personas.

El debate europeo debe motivarnos también a acelerar el paso en la discusión local que, pese a contar con proyectos ingresados para su discusión -e incluso con el trabajo técnico ya terminado por parte de la mesa de trabajo del Senado, Legislando sobre IA-, aún no logra avances significativos. Además, debe ser un ejemplo de cómo abordar el escenario cambiante de tecnologías asociadas a la digitalización, ya que su constante evolución es un desafío a la regulación, que debe ser permanentemente revisada y actualizada de acuerdo a cómo vayan cambiando los panoramas y tecnologías.

La necesidad de regulación, vigilancia continua y diálogo abierto sobre las implicaciones éticas de la IA es una tarea que no resiste más espera y donde la participación activa de la sociedad civil, expertos en ética y tecnología, así como las comunidades afectadas es fundamental. Un enfoque colaborativo y multidisciplinario es esencial para construir sistemas de inteligencia artificial que no solo sean innovadores, sino también justos, inclusivos y respetuosos de la dignidad humana.